package com.atguigu.bigdata.spark.core.rdd.operator.transform

import org.apache.spark.rdd.RDD
import org.apache.spark.{SparkConf, SparkContext}

/**
  * create by undeRdoG on  2021-06-08  14:26
  * 凡心所向，素履以往，生如逆旅，一苇以航。
  */
object Spark10_RDD_Operator_Transform {

  def main(args: Array[String]): Unit = {
    val sparkConf = new SparkConf().setAppName("Operator").setMaster("local[*]")
    val sc = new SparkContext(sparkConf)

    val rdd: RDD[Int] = sc.makeRDD(List(1,2,3,4,5,6),3)

    /**
    *   合并成 2 个分区
      *
      *   coalesce 默认是不会把分区数据从新打乱组合的
      *   这种情况下的缩减分区：可能会导致数据倾斜
      *   如果想让数据均衡，可以进行shuffle
    * */
    rdd.coalesce(2,true).saveAsTextFile("output1")


  }
}
